(網(wǎng)經(jīng)社訊)12月22日晚間，快手平臺(tái)突發(fā)大規(guī)模內(nèi)容安全事件，多個(gè)直播間短時(shí)間內(nèi)涌入大量露骨色情內(nèi)容，違規(guī)內(nèi)容傳播狀態(tài)持續(xù)超1小時(shí)，引發(fā)廣泛關(guān)注（詳見網(wǎng)經(jīng)社專題：http://m.99poke.cn/zt/kszhhcgj/ ）。
快手事件并非孤例，而是直播行業(yè)面臨的共性問(wèn)題的一個(gè)極端體現(xiàn)。隨著直播行業(yè)的繁榮，內(nèi)容安全已成為全行業(yè)的共同挑戰(zhàn)。從小紅書、B站到抖音，幾乎所有主流平臺(tái)都曾陷入類似爭(zhēng)議。
據(jù)網(wǎng)經(jīng)社（m.99poke.cn）不完全統(tǒng)計(jì)，近幾年來(lái)涉黃的平臺(tái)還包括美柚、寶寶樹、東郊到家、蜻蜓FM、餓了么、美術(shù)寶、新氧醫(yī)美、閑魚、小猿搜題、百度作業(yè)、百度地圖、花椒直播、貼吧、嘿秀、斗魚、大眾點(diǎn)評(píng)、新浪、貓撲開心網(wǎng)、百度搜圖、盛大、搜狐、土豆、泡泡網(wǎng)、360、時(shí)光網(wǎng)、籬笆網(wǎng)、谷歌等。
對(duì)此， 網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員、浙江墾?。ū本┞蓭熓聞?wù)所律師程念接受數(shù)字經(jīng)濟(jì)新媒體&智庫(kù)——#網(wǎng)經(jīng)社 獨(dú)家專訪。
（浙江墾?。ū本┞蓭熓聞?wù)所律師程念）
程念提到，《網(wǎng)絡(luò)安全法》第二十五條規(guī)定，網(wǎng)絡(luò)運(yùn)營(yíng)者應(yīng)當(dāng)制定網(wǎng)絡(luò)安全事件應(yīng)急預(yù)案，及時(shí)處置系統(tǒng)漏洞、計(jì)算機(jī)病毒、網(wǎng)絡(luò)攻擊、網(wǎng)絡(luò)侵入等安全風(fēng)險(xiǎn)；在發(fā)生危害網(wǎng)絡(luò)安全的事件時(shí)，立即啟動(dòng)應(yīng)急預(yù)案，采取相應(yīng)的補(bǔ)救措施，并按照規(guī)定向有關(guān)主管部門報(bào)告?！毒W(wǎng)絡(luò)安全法》第五十九條規(guī)定，網(wǎng)絡(luò)運(yùn)營(yíng)者不履行本法第二十一條、第二十五條規(guī)定的網(wǎng)絡(luò)安全保護(hù)義務(wù)的，由有關(guān)主管部門責(zé)令改正，給予警告；拒不改正或者導(dǎo)致危害網(wǎng)絡(luò)安全等后果的，處一萬(wàn)元以上十萬(wàn)元以下罰款，對(duì)直接負(fù)責(zé)的主管人員處五千元以上五萬(wàn)元以下罰款。
第一，快手事件中，一些公開報(bào)道中提到根據(jù)技術(shù)專家分析，攻擊者很可能利用了直播推流接口的底層漏洞，從而繞過(guò)了平臺(tái)正常的實(shí)名認(rèn)證和內(nèi)容審核鏈路。這使得預(yù)設(shè)的違規(guī)內(nèi)容能夠直接突破安全防線?？焓置鎸?duì)新型的、組合方式出現(xiàn)的攻擊，顯然沒有很好地應(yīng)對(duì)和處置，大量新注冊(cè)的“小白號(hào)”或僵尸賬號(hào)自動(dòng)化播放預(yù)制視頻的涌入也很可能超出了快手平常審核方面的算力支持。
第二，同時(shí)需要指出的是，《國(guó)家網(wǎng)絡(luò)安全事件報(bào)告管理辦法》附件“網(wǎng)絡(luò)安全事件分級(jí)指南”中對(duì)于“重大網(wǎng)絡(luò)安全事件”的界定中包含“...大型以上網(wǎng)絡(luò)平臺(tái)等被攻擊篡改，導(dǎo)致違法有害信息大范圍傳播。 以下情況之一，可認(rèn)定為“大范圍”：（3）瀏覽或點(diǎn)擊次數(shù)10萬(wàn)以上”；對(duì)于“較大網(wǎng)絡(luò)安全事件”的界定中包含“...網(wǎng)絡(luò)平臺(tái)等被攻擊篡改，導(dǎo)致違法有害信息較大范圍傳播。以下情況之一，可認(rèn)定為“較大范圍”：（3）瀏覽或點(diǎn)擊次數(shù)1萬(wàn)以上”。快手事件目前的情況已經(jīng)構(gòu)成較大網(wǎng)絡(luò)安全事件，公開渠道看到的情況是違法信息傳播持續(xù)了一個(gè)小時(shí)，部分直播間單場(chǎng)觀看人數(shù)甚至逼近10萬(wàn)人。如果經(jīng)調(diào)查發(fā)現(xiàn)達(dá)到10萬(wàn)人則很可能被認(rèn)定為重大網(wǎng)絡(luò)安全事件，而根據(jù)《國(guó)家網(wǎng)絡(luò)安全事件報(bào)告管理辦法》第四條，快手應(yīng)當(dāng)及時(shí)向?qū)俚厥〖?jí)網(wǎng)信部門報(bào)告，最遲不得超過(guò)4小時(shí)。如果因?yàn)槲茨芗皶r(shí)報(bào)告導(dǎo)致危害擴(kuò)大的，該行為也屬于違反《網(wǎng)絡(luò)安全法》第二十五條的情形。
因此，本身存在漏洞加上沒有提供和平臺(tái)體量相當(dāng)?shù)膽?yīng)急措施和方案，以及未能即使向主管部門報(bào)告的，快手很可能因未能處置系統(tǒng)漏洞、網(wǎng)絡(luò)攻擊等風(fēng)險(xiǎn)以及未能及時(shí)按照規(guī)定報(bào)告從而因違反《網(wǎng)絡(luò)安全法》第二十五條的規(guī)定，從而導(dǎo)致《網(wǎng)絡(luò)安全法》第五十九條規(guī)定的責(zé)令整改、警告等處罰措施。
程念還表示，從事件發(fā)生到平臺(tái)響應(yīng)超過(guò)1小時(shí)，暴露出快手在應(yīng)急響應(yīng)方面存在兩個(gè)問(wèn)題。
第一是事前預(yù)警與事中熔斷機(jī)制缺失。攻擊持續(xù)1小時(shí)后平臺(tái)才全面關(guān)停直播，反映出異常流量監(jiān)測(cè)和自動(dòng)熔斷機(jī)制薄弱。理想情況下，快收的審核系統(tǒng)應(yīng)在檢測(cè)到“大量新賬號(hào)同步開播”“內(nèi)容高度相似”等異常時(shí)就能即使觸發(fā)警報(bào)并對(duì)異常情況進(jìn)行觀測(cè)，當(dāng)發(fā)現(xiàn)違法內(nèi)容出現(xiàn)時(shí)及時(shí)觸發(fā)限流或關(guān)停。
第二是平臺(tái)沒有及時(shí)對(duì)可能升級(jí)迭代的攻擊情況進(jìn)行研究和預(yù)判，未能針對(duì)極端攻擊場(chǎng)景進(jìn)行充分的研究分析，也缺少將自身核心的算法推薦機(jī)制可能被惡意利用的風(fēng)險(xiǎn)充分納入考量，缺乏算法反操縱的設(shè)計(jì)。
在平臺(tái)抵御黑灰產(chǎn)問(wèn)題上，程念建議建立從“局部限流”到“全局關(guān)?！钡淖詣?dòng)化響應(yīng)預(yù)案，確保攻擊發(fā)生時(shí)快速降級(jí)影響；優(yōu)化圖像識(shí)別、語(yǔ)音檢測(cè)模型，提升違規(guī)內(nèi)容攔截時(shí)效。
專家介紹：程念律師，中國(guó)政法大學(xué)法學(xué)碩士（網(wǎng)絡(luò)法學(xué)專業(yè)），墾丁律所人工智能法律研究部負(fù)責(zé)人，專注于人工智能、游戲合規(guī)、直播短視頻法律服務(wù)、電商合規(guī)、平臺(tái)治理、數(shù)據(jù)合規(guī)、個(gè)人信息保護(hù)、元宇宙相關(guān)法律服務(wù)及知識(shí)產(chǎn)權(quán)、不正當(dāng)競(jìng)爭(zhēng)、服務(wù)合同相關(guān)的涉網(wǎng)訴訟等互聯(lián)網(wǎng)法律實(shí)務(wù)工作，為多家知名網(wǎng)絡(luò)公司提供常年法律顧問(wèn)服務(wù)，包括平臺(tái)協(xié)議起草與調(diào)整、電商平臺(tái)價(jià)格與廣告合規(guī)法律方案、資質(zhì)準(zhǔn)入、平臺(tái)協(xié)議審核、廣告合規(guī)咨詢、新業(yè)務(wù)風(fēng)險(xiǎn)評(píng)估等合規(guī)咨詢服務(wù)等； 參與首例 5G 云游戲第一案、小米手機(jī)風(fēng)險(xiǎn)APP治理第一案等典型案件，代理游戲道具低價(jià)代充不正當(dāng)競(jìng)爭(zhēng)糾紛、直播帶貨預(yù)期可得收益追回案等； 參與撰寫《直播與短視頻產(chǎn)業(yè)合規(guī)藍(lán)皮書》《元宇宙與元規(guī)則——元宇宙產(chǎn)業(yè)及元規(guī)則體系建構(gòu)藍(lán)皮書》等報(bào)告； 參與編寫著作《<中華人民共和國(guó)數(shù)據(jù)安全法>理解與實(shí)施》。
【小貼士】
國(guó)內(nèi)知名網(wǎng)絡(luò)消費(fèi)糾紛調(diào)解平臺(tái)“電訴寶”（315.100EC.CN）運(yùn)行10余年來(lái)，與全國(guó)近千家網(wǎng)絡(luò)消費(fèi)平臺(tái)建立對(duì)接，影響1億+網(wǎng)絡(luò)消費(fèi)用戶，新系統(tǒng)實(shí)現(xiàn)一鍵投訴、24h在線、自助維權(quán)、同步直達(dá)、實(shí)時(shí)處理、進(jìn)度查詢、評(píng)價(jià)體系、法律求助、大數(shù)據(jù)分析等諸多功能。
目前，平臺(tái)“綠色通道”服務(wù)向廣大網(wǎng)絡(luò)消費(fèi)平臺(tái)開放，平臺(tái)可自主申請(qǐng)入駐，實(shí)時(shí)受理、反饋和查詢用戶滿意度評(píng)價(jià)。為了更好地營(yíng)造公開、透明、健康的網(wǎng)絡(luò)消費(fèi)投訴環(huán)境，“電訴寶”公開版已正式上線，新增用戶投訴實(shí)時(shí)受理動(dòng)態(tài)、月度平臺(tái)投訴量TOP10、熱點(diǎn)投訴地區(qū)、投訴榜（依據(jù)投訴量排行）等模塊，讓投訴過(guò)程透明化，一手掌握信息動(dòng)態(tài)。
.png)
.png)
.png)
.png)
.png)
.png)
